隨著人工智慧在高等教育領域加速應用，各大學院校正密切關注潛在的資安風險。專家指出，妥善的資料治理、嚴格的權限管理以及對學生隱私法規的遵循，是確保AI安全部署的關鍵考量。
隨著人工智慧（AI）工具在高等教育領域的應用日漸普及，各大學院校在享其便利之際，也面臨嚴峻的資安挑戰。專家指出，確保AI系統的安全部署，關鍵在於資料治理、存取控制與法規遵循等四大面向。
資料治理是所有AI系統負責任、道德、安全及有效運用資料的基石。AI系統的安全性取決於其被允許存取的資料範圍。在高等教育環境中，這意味著必須仔細控制AI工具能夠查詢的系統，例如學生紀錄、教職員資料或研究來源。此處應運用「最小權限原則」，即AI僅能存取其預定用途所需的資料。舉例來說，學生透過AI工具查詢資訊時，應僅獲取其有權限看到的內容，而非教職員行程或敏感研究資料。
其次是強化身分與存取管理（IAM），確保使用者身分無誤，且只能存取其獲授權的資訊，AI工具也應遵循相同規範。若缺乏完善的IAM，機構可能面臨未經授權的存取、資料外洩及法規違規等風險。AI本質上可被視為網路上的「超級使用者」，能迅速查詢多個系統、關聯資料並提供洞察，因此必須像管理其他管理員一樣對其進行治理，施加相同的限制。
第三項考量是資料生命週期管理。AI工具無法自行區分資料的新舊或是否過時，除非被明確告知。若沒有健全的資料生命週期管理政策，AI工具可能會呈現不相關甚至有害的資訊，嚴重威脅資料的完整性。各機構必須實施淘汰舊資料的政策，特別是針對與AI連結的系統，包括學生紀錄、研究檔案及行政文件，以防AI調取到本不應再被存取的資料。
最後，配置不當的AI環境可能導致未經授權的存取與法律後果。例如，美國的《家庭教育權利和隱私權法案》（FERPA）即規範學生資料的處理方式。此外，若允許個人在機構網域之外使用AI工具，可能導致專有資料被用於訓練外部模型，進而引發法律與聲譽風險。因此，了解並妥善部署此項技術至關重要。